Unlocking the Working Memory of Large Language Models for Latent Reasoning
解锁大语言模型的工作记忆以进行隐式推理
🧭 隐式推理 · 工作记忆 · 两阶段课程 ★ 深度解读
Johannes Kepler University Linz · NXAI GmbH
用固定记忆块代替自回归中间推理，在单次前向传播中实现高效隐式推理
📌 工作参考价值（4 点）
- 用固定记忆块实现低延迟推理：将中间思考外化替换为少量固定记忆令牌，直接附加到输入上，单次前向传播即可完成推理，大幅降低生成延迟，适用于对实时性敏感的 Agent 或推荐系统。
- 两阶段课程可复用于训练隐式推理模型：先通过中间步骤监督迫使模型把信息编码进记忆块，再逐步转为仅用最终答案优化，这种方法同样可用于训练推荐模型中的用户意图或状态隐式表示，例如在会话式推荐中用记忆块累积用户偏好。
- 注意力掩码实现高效并行训练：通过分离记忆块流和读出头，一次前向传播就能完成所有中间目标的监督，训练效率接近标准微调。在训练其他需要多步推理或序列决策的模型时，可以用类似掩码减少训练时间。
- 推理时记忆预算可调，方便工程折中：训练好的模型在不同记忆块数量和大小下表现稳定，实际部署时可以根据算力限制灵活调整推理成本而不必重新训练，适合线上动态裁剪。